Büyük Birader Hata Yaptığında!
Amerikan Sivil Özgürlükler Birliği (ACLU), hatalı yüz tanıma teknolojisinin neden olduğu yanlış gözaltının ilk bilinen örneği için Detroit Polis Departmanı aleyhine resmi bir şikayette bulundu.
Afro-Amerikalı bir kişi olan Robert Julian-Borchak Williams, bir yüz tanıma sistemi fotoğrafını bir hırsızın güvenlik görüntüleri ile yanlış bir şekilde eşleştirdikten sonra tutuklandı. New York Times (NYT) bildirdiğine göre ACLU Williams’ın davasının tamamen işlemden kaldırılmasını ve bilgilerinin Detroit suç veritabanlarından silinmesini istedi ve bu talep üzerine savcılar bu talebe uygun olarak verileri silmeyi kabul ettiler.
Yüz tanıma teknolojisi yıllardır eleştiriliyor. Araştırmacılar bu sistemlerin farklı ırk ve etnik kökenlere karşı önyargılı olduğunu kanıtlamışlardı. Bu tür sistemlerin kolluk kuvvetleri tarafından kullanılıyor olması, polis şiddeki ve ırkçılığa karşı ülke çapında düzenlenen protestoların ardından, daha çok tartışılır hale geldi. Artık, Williams örneği, hatalı ve kusurlu teknoloji kötü polisin çalışmalarıyla yan yana gelirse neler olabileceğine dair karanlık bir örnek olarak önümüzde.
NYT’ye göre Williams’ın suçlandığı soygun Ekim 2018’de gerçekleşti. Mağazanın gözetim kameraları tarafından çekilen videolardan üretilen bir fotoğraf Michigan eyaletinin yüz tanıma veritabanına ve Mart 2019’da yüklendi
Bu fotoğraftan yola çıkan yazılım zanlıya benzer kişileri ayrıştırdığı bir seri fotoğraf eşleşmesi oluşturdu. Her ne kadar Willams’ın tutuklanması yüz tanıma yazılımının doğrudan eşleştirme yapması ile ortaya çıkmadıysa da, olası eşleşmelerden oluşan bu resimler daha sonra mağaza güvenlik görevlilerine gösterildi. Soyguna birinci elden tanıklık etmediği ACLU tarafından not edilen güvenlik görevlisi bu resimlere bakarak Willams’ı soyguncu olarak teşhis etti.
Bu teşhis yüzünden Willams Ocak ayında evine doğru giderken polis tarafından göz altına alındı ve toplam 30 saat göz altında tutuldu. Williams Washington Post’a yazdığı bir op-ed yazısında olan biteni kendi bakış açısı ile anlattı. Polise ifade verirken kendisine gösterilen hırsızın fotoğraflarından birisini yüzünün yanında tuttuğunu ve bunun üzerine dedektiflerden birinin “bilgisayar yanlış yapmış olmalı” dediğini aktardı.
Williams’ın davası göz altına alındıktan iki hafta sonra “önşartsız” olarak reddedildi. NYT bu yüzden Williams’ın tekrar suçlanma riskinin devam ettiğini belirtti. ACLU’ya göre, gözaltı sürecinin bir parçası olarak Williams’ın DNA örneğinin, sabıka fotoğrafının ve parmak izlerinin halen polis dosyasında bulunuyor ve gözaltına alınmasını ilişkin kayıtların hala saklanıyor.
Detroit polis sözcüsü NTY’ye verdiği beyanatta, Polis Departmanının savcının takipsizlik kararını kabul ettiğini ve Polis Departmanı olarak Temmuz 2019’dan itibaren yüz tanıma sistemini sadece şiddet suçlarını araştırmak için kullanmak şeklinde düzeltildiğini söyledi.
Williams’ın bu hikayesi, yaşanan polis şiddeti üzerine IBM, Microsoft ve Amazon dahil olmak üzere yüksek profilli pek çok teknoloji şirketinin polis için yürüttükleri yüz tanıma çalışmalarını durduracaklarını açıklamalarıyla aynı dönemde duyuldu. IBM CEO’su Arvind Krishna, bu ayın başlarında yaptığı açıklamada, “Artık yüz tanıma teknolojisinin yerel kolluk kuvvetleri tarafından kullanılması gerekip gerekmediği ve nasıl kullanılacağı konusunda ulusal bir diyaloga başlama zamanının geldiğine inanıyoruz.” dedi.
Birçok yüz tanıma uzmanı, bu teknolojinin kullanımı konusunda daha uzun süre beklenmesi gerektiğini, ancak bazı firmaların bu tür çözümlerini bir kez daha kolluk kuvvetlerine satmaya başlamadan önce şu andaki kamu oyu ilgisinin sönmesini beklediklerini belirtiyor. Williams olayının da gösterdiği gibi, yanlış gözaltı ve polis uygulamalarının bir kişinin hayatına verebileceği zararları unutması kişi açısından daha zor oluyor ve daha uzun zaman alabiliyor.
“Kızlarım kelepçelendiğimi ve bir polis arabasına sokulduğum anı gördüklerini hafızalarından silemeyecekler,” diye yazıyor Williams. “Ama bu deneyimi dünyayı daha iyi bir yer haline getirmek için kullandığımı görebiliyorlar. Bu sayede kızlarımın ehliyetlerinin veya Facebook’ta paylaştıkları fotoğrafların onları hedeflemek, izlemek veya zarar vermek için kullanılabileceği bir dünyada büyümemelerini sağlamam anlamına geliyor. ”
Kaynak: theverge.com
Yazar: Jon Porter Twitter: @JonPorty
Çeviren : Melih R. Çalıkoğlu
